Back محول مولد مسبق التدريب Arabic Generative pre-trained transformer BAR Transformadors generatius pre-entrenats Catalan Generative pre-trained transformer Czech Generativer vortrainierter Transformer German Generative pre-trained transformer English Transformador generativo preentrenado Spanish ترنسفورمر تولیدگر از پیش آموزشدیده Persian Transformeur génératif pré-entraîné French GPT HE
GPT (lyhenne sanoista Generative pre-trained transformer) on OpenAI:n kehittämä kielimallien perhe, jotka on koulutettu suurilla tekstikorpuksilla siten, että ne voivat luoda ihmismäistä tekstiä. Mallit on kehitetty käyttäen transformer-arkkitehtuuria. Niitä voidaan hienosäätää erilaisiin luonnollisen kielenkäsittelyn tehtäviin, kuten tekstin luomiseen, käännöksiin ja tekstinluokitteluun. Nimen "pre-training"-osio (suom. esikoulutus) viittaa mallien kehityksen alussa tapahtuvaan koulutusprosessiin suurella tekstikorpuksella, jossa malli oppii ennustamaan seuraavan sanan tekstikatkelmassa. Tämä antaa vankan pohjan mallille toimia hyvin erilaisten tehtävien parissa, joissa on rajalliset määrät tehtäväkohtaista dataa.